Khi đã có vốn chữ nghĩa, cần học lên, ông tìm đường ra xứ Bắc, làm thuê để tiếp tục học ở Thăng Long. Ông học rất thông minh, nổi tiếng về thơ Nôm và về tài ứng đối.

Năm 1579, nhà Lê trung hưng mở khoa thi ở Thanh Hóa, ông lại ra thi và lại đỗ Giải nguyên.

Tháng 8 năm 1580, nhà Hậu Lê mở khoa thi Hội đầu tiên ở sách Vạn Lại, ông đi thi tiếp, đỗ Hội nguyên[2][3](đệ nhị giáp tiến sĩ xuất thân), rồi vào thi Đình đỗ luôn Đình nguyên nhị giáp Tiến sĩ[4]. Ông là vị Tam nguyên đầu tiên của thời Lê trung hưng.

Ngay trong năm này, Nguyễn Văn Giai được Trịnh Tùng bổ nhiệm chức Tán ký lục trong quân đội. Ông đóng vai trò tham mưu kế sách quân sự trong trướng cho Trịnh Tùng, đóng góp công lao vào việc đánh bại nhà Mạc, chiếm kinh thành Thăng Long năm 1592[4]. Năm sau, Nguyễn Văn Giai được thăng chức Đề hình Giám sát Ngự sử.

Năm 1608, ông được thăng làm Đô ngự sử. Lúc đó nhà Lê làm chủ Bắc Bộ, bắt đầu giao hiếu với nhà Minh. Trịnh Tùng giao cho ông và Đỗ Uông tới Nam Quan để hội khám nhưng tướng nhà Minh không đến[4].

Năm 1609, ông lại vâng mệnh lên Nam Quan hội khám cùng vua Lê. Năm đó gặp tướng nhà Minh. Sau khi tiếp kiến trở về, ông được thăng làm Tham tụng, Thượng thư bộ Lại, nắm việc cả sáu Bộ kiêm Đô ngự sử, Thiếu bảo, Lễ quận công[5][6].

Năm 1623, con thứ của Trịnh Tùng là Trịnh Xuân gây biến. Vua Lê Thần Tông phải chạy vào Thanh Hóa. Nguyễn Văn Giai tham gia bày mưu giúp chúa Trịnh dẹp yên biến loạn. Sau đó ông có công cùng đi đánh Mạc Kính Khoan ở Cao Bằng, được thăng làm Thiếu úy, gia phong Dực vận tán trị công thần, rồi thăng làm Thái bảo, được xem là người có công lao đứng đầu lúc đương thời[5].

Ông mất khi đang tại chức ngày 13 tháng 1 năm Mậu Thìn, tức 27 tháng 2 năm 1628[6], thọ 75 tuổi. Triều đình truy tặng ông là Đại tư đồ, thụy là Cẩn Độ.